a) Xét hàm số \(y=ax^4+bx^2+c\)

Ta có \(y'=4ax^3+2bx=2x\left(2ax^2+b\right)\)

         \(y'=0\Leftrightarrow x=0\) hoặc \(2ax^2+b=0\left(1\right)\)

Đồ thị  hàm số có 3 cực trị phân biệt khi và chỉ khi \(y'=0\) có 3 nghiệm phân biệt hay phương trình (1) có 2 nghiệm phân biệt khác 0 \(\Leftrightarrow ab< 0\) (*)

Với điều kiện (*) thì đồ  thị có 3 điểm cực trị là :

\(A\left(0;c\right);B\left(-\sqrt{-\frac{b}{2a},}c-\frac{b^2}{4a}\right);C\left(\sqrt{-\frac{b}{2a},}c-\frac{b^2}{4a}\right)\)

Ta có \(AB=AC=\sqrt{\frac{b^2-8ab}{16a^2}};BC=\sqrt{-\frac{2b}{a}}\) nên tam giác ABC vuông khi và chỉ khi vuông tại A.

Khi đó \(BC^2=2AB^2\Leftrightarrow b^3+8a=0\)

Do đó yêu cầu bài toán\(\Leftrightarrow\begin{cases}ab< 0\\b^3+8a=0\end{cases}\)\(\Leftrightarrow\begin{cases}-2\left(m+1\right)< 0\\-8\left(m+1\right)^3+8=0\end{cases}\)\(\Leftrightarrow m=0\)

b) Ta có yêu cầu bài toán  \(\Leftrightarrow\begin{cases}ab< 0\\OA=BC\end{cases}\)\(\Leftrightarrow\begin{cases}-2\left(m+1\right)< 0\\m^2-4\left(m+1\right)=0\end{cases}\)

                                                           \(\Leftrightarrow m=2\pm2\sqrt{2}\)

Lời giải:
$y'=3x^2-6mx+3(m^2-1)=0$

$\Leftrightarrow x^2-2mx+m^2-1=0$

$\Leftrightarrow x=m+1$ hoặc $x=m-1$

Với $x=m+1$ thì $y=-2m-2$. Ta có điểm cực trị $(m+1, -2m-2)$

Với $x=m-1$ thì $y=2-2m$. Ta có điểm cực trị $m-1, 2-2m$

$f''(m+1)=6>0$ nên $A(m+1, -2m-2)$ là điểm cực tiểu

$f''(m-1)=-6< 0$ nên $B(m-1,2-2m)$ là điểm cực đại 

$BO=\sqrt{2}AO$

$\Leftrightarrow BO^2=2AO^2$

$\Leftrightarrow (m-1)^2+(2-2m)^2=2(m+1)^2+2(-2m-2)^2$

$\Leftrightarrow m=-3\pm 2\sqrt{2}$

a: Thay x=2 và y=-3 vào (d), ta được:

2(2m-3)=-3

=>2m-3=-3/2

=>2m=3/2

=>m=3/4

b: Thay x=-1 và y=5 vào (d), ta được:

-(2m-3)=5

=>2m-3=-5

=>2m=-2

=>m=-1

c: Thay x=-5 và y=0 vào (d), ta được:

-5(2m-3)=0

=>2m-3=0

=>m=3/2

Câu 2: 

a) Để đồ thị hàm số \(y=\left(m+1\right)x^2\) đi qua điểm A(1;2) thì

Thay x=1 và y=2 vào hàm số \(y=\left(m+1\right)x^2\), ta được:

m+1=2

hay m=1

Vậy: m=1

\(b,\Leftrightarrow3m=m-1\Leftrightarrow2m=-1\Leftrightarrow m=-\dfrac{1}{2}\\ c,\Leftrightarrow3n=n^2-4\\ \Leftrightarrow n^2-3n-4=0\\ \Leftrightarrow n^2-4n+n-4=0\\ \Leftrightarrow\left(n-4\right)\left(n+1\right)=0\Leftrightarrow\left[{}\begin{matrix}n=4\\n=-1\end{matrix}\right.\)